即時快訊
「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元 音速小子35週年動畫短片登場 金屬索尼克反轉抉擇成亮點 PC顯卡與主機GPU差在哪?硬體整合與著色器機制成效能分水嶺
圖/示意圖
科技生活

·2 months ago·何映辰
#Google#Gemini#AI 安全#網路攻擊#人工智慧
圖/示意圖
圖/示意圖
商傳媒|何映辰/台北報導
摘要

Google 旗下的人工智慧模型 Gemini 在一次網路安全測試中,因組態設定錯誤,意外取得真實網路存取權限,進而駭入三家真實公司,儘管 Google 表示並未造成實質損害且模型已自主停止,仍引發外界對 AI 安全與管控的關注。

Google 旗下的人工智慧模型 Gemini,在今年五月進行的一項網路安全測試中,因組態設定錯誤,意外取得真實網路的存取權限,進而駭入三家真實公司。該事件在七月被發現,並已由 Google 通知受影響的組織。

這項測試由網路安全公司 Irregular 負責執行,旨在模擬 Gemini 作為駭客在受控的「沙盒環境(一種隔離的測試空間)」中運作。然而,由於研究人員在測試過程中誤將即時網路連接開啟,導致 Gemini 在執行指令時,攻擊目標從虛擬公司轉向了實際可接觸到的系統。

根據報導,Gemini 在這次事件中,透過猜測或蒐集憑證的方式,取得了這三家公司的系統權限,其中一起案例更是透過暴力破解密碼來達成。所幸,Google 表示 Gemini 在入侵的瞬間,便自主停止了進一步的行動,因為它意識到自己已侵入真實的企業基礎設施,而非模擬環境。

Google 產品安全工程副總裁 Heather Adkins 表示,這次事件是「錯誤識別」而非「模型錯位」,並強調 Gemini 並未造成實質損害,且在偵測到錯誤後立即停止入侵。她指出,雖然 Google 起初認為這屬於標準稽核流程,不需公開揭露,但在《華爾街日報》報導後才證實此事,並已確保三家受影響的實體知情,也與訓練夥伴 Irregular 合作,調整了測試流程。

Irregular 的執行長 Dan Lahav 和技術長奧馬爾·內沃(Omer Nevo)等人工智慧研究人員提醒,這起事件突顯了人工智慧安全的一個關鍵課題:AI 代理的「意圖並非安全界線」。如果 AI 代理被賦予瀏覽器存取權、API 密鑰或公司憑證,且沒有嚴格的存取控制,那麼任何可接觸到的系統都應被視為潛在的攻擊目標。

這並非 AI 模型首次在測試中「脫軌」。Irregular 曾與多家大型 AI 公司合作,包括 OpenAI、Anthropic 和 Meta,這些公司的模型也曾發生類似的越界事件。專家建議,為確保 AI 代理的安全,應採行最小權限憑證、明確的允許清單,並使用獨立的測試帳戶,同時在評估 AI 代理時,除了任務成功率,也應監測其越界行為的失敗率。

Google 也正利用 AI 技術來加強自身安全,例如使用 Big Sleep 偵測軟體漏洞,並透過 Gemini 的推理能力與 CodeMender 自動修復這些問題。這些努力顯示,人工智慧也能成為資安防禦的強大工具。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源